स्टैनफोर्ड विश्वविद्यालय और कैलिफोर्निया विश्वविद्यालय बर्कली के शोधकर्ताओं ने एक प्रयोग किया, जिसमें एआई छवि उत्पादन मॉडल को अपने द्वारा उत्पन्न छवियों का उपयोग करके पुनः प्रशिक्षण के परिणामों की जांच की गई। प्रयोग में स्टेबल डिफ्यूजन (एसडी) मॉडल का उपयोग किया गया, और स्वचालित उत्पादन के लिए FFHQ चेहरे के चित्र डेटा सेट से उच्च गुणवत्ता वाली चेहरे की छवियाँ चुनी गईं। परिणामों से स्पष्ट हुआ कि पुनः प्रशिक्षण के बाद एआई मॉडल ने अत्यधिक विकृत छवियाँ उत्पन्न कीं, यह विकृति न केवल पुनः प्रशिक्षण के लिए उपयोग किए गए पाठ संकेतों से उत्पन्न हुई, बल्कि इसके बाद केवल असली छवियों का उपयोग करके पुनः प्रशिक्षण किए जाने पर भी मॉडल ने इसी तरह की विकृतियाँ उत्पन्न कीं।

माइक्रोसॉफ्ट ने बिंग के डीएएलएल-ई 3-संचालित एआई छवि उत्पादन क्षमताओं को सीमित किया है। एआई द्वारा उत्पन्न छवियों पर अधिक कड़े प्रतिबंध हैं, विशेष रूप से आतंकवाद से संबंधित भाषा से संबंधित। ये सुरक्षा उपाय अभी भी पूर्ण नहीं हैं, लेकिन माइक्रोसॉफ्ट सुधार के प्रयास कर रहा है। माइक्रोसॉफ्ट को अपनी एआई टूल का अधिक सावधानी से परीक्षण करने की आवश्यकता है ताकि अनुचित उत्पन्न छवियों से बचा जा सके।